Οι αλγόριθμοι αποφασίζουν αν είμαστε φερέγγυοι, αν δικαιούμαστε κοινωνική μέριμνα και ποιος σύντροφος είναι ο κατάλληλος για εμάς. Τι συμβαίνει, όμως, όταν οι αλγόριθμοι κάνουν λάθη;
Δεν είναι λίγες οι ιστορίες των ανθρώπων που οι ζωές τους ήρθαν τα πάνω κάτω μετά από λάθος κρίση της κατάστασής τους από αλγορίθμους. Ποιος είναι υπεύθυνος αν το ΑΙ τελικά αποδειχθεί κατάρα, αντί για ευλογία;
Σύμφωνα με μια ανάλυση που είχε κάνει το 2017 το Pew Research Center, μια λανθασμένη χρήση του αλγόριθμου μπορεί να δώσει τη δυνατότητα είτε σε κάποια κυβέρνηση είτε σε μεγάλες εταιρείες να αποκτήσουν τον έλεγχο της ζωής των χρηστών, δημιουργώντας το λεγόμενο «filter bubble».
Με βάση τα δεδομένα, οι αλγόριθμοι μαθαίνουν τους κανόνες για να ταξινομούν μια καινούργια περίπτωση, στηριζόμενοι στις περιπτώσεις που έχουν ήδη «ταυτοποιηθεί», οι οποίες συνολικά αποκαλούνται «gold truth» (χρυσή αλήθεια). Ο αλγόριθμος καταλαβαίνει πώς να συμπεριφερθεί με βάση τα δεδομένα που έχει στη διάθεσή του, μετατρέποντας κάθε περίπτωση σε ένα σύνολο μεταβλητών και μαθαίνοντας ποιες από αυτές επηρεάζουν τελικά την ταξινόμηση. Στόχος αυτής της διαδικασίας είναι φυσικά η αναπαραγωγή της «gold truth», η οποία σε ορισμένες περιπτώσεις μπορεί να εμπεριέχει και στατιστικό λάθος.
Οι αλγόριθμοι έχουν σχεδιαστεί για να βελτιώσουν την εμπειρία του χρήστη. Μελετούν την συμπεριφορά του, καταγράφουν τιε προτιμήσεις του και τα ενδιαφέροντα του ώστε να του παρουσιάζουν θέματα με μεγαλύτερη ακρίβεια, ενδιαφέρον και σχετικότητα. Με την πάροδο του χρόνου, οι αλγόριθμοι γίνονται όλο και πιο αποτελεσματικοί στην αναγνώριση των μοντέλων του χρήστη κατατάσσοντας τον ανάλογα, γεγονός που τους καθιστούν ικανούς να του υποδείξουν τους φίλους του, να καθοδηγήσουν την γνώμη του, να τον κατευθύνουν λαθεμένα δίνοντας του την εντύπωση της αξιόπιστης πληροφορίας.
Οι αλγόριθμοι έχουν εισχωρήσει σε όλους τους τομείς της ζωής μας , συγκεντρώνοντας στοιχεία που σκιαγραφούν το προφίλ μας. Έχουν φτάσει στο σημείο να μας γνωρίζουν καλύτερα από όσο εμείς ξέρουμε τον ίδιο μας τον εαυτό . Τι θα γινόταν αν στρέφονταν εναντίον μας; Πως θα μπορούσαμε να υπερασπιστούμε τον εαυτό μας;
Τελικά ζούμε μέσα σε μια υπολογιστική προσομοίωση;
